Believed but Not Said: Measuring Hidden Belief Collapse in Multi-Agent LLM Discussions
多智能体LLM讨论中隐性信念崩塌的测量：相信却不说
🧭 多智能体讨论中的对抗性错误传播与隐性信念崩塌
University of Illinois Chicago
少数对抗智能体反复陈述看似合理的假答案，即可让多数良性智能体私下采信但公开不表态，揭示隐性信念崩塌
📌 工作参考价值（4 点）
- 多 Agent 协同的搜索/推荐/审核系统中，公开发言不一定反映各 Agent 真实判断；建议在关键决策节点增加独立于共享上下文的私密 probe（如隐藏答案抽取、置信度打分），持续监测隐性漂移，而非只依赖公开投票或共识。
- 少量对抗性或污染信息（如异常检索结果、有偏商品知识、腐败工具输出）可能在多 Agent 讨论中快速传播；可在架构中加入来源可信度加权、异常 Agent 检测与隔离、关键事实外部校验机制。
- 对事实性要求高的业务场景（商品卖点、价格政策、售后规则等）不宜完全依赖多 Agent 公开辩论作为唯一护栏；可增加单 Agent 私密事实核查或强 RAG 约束，减少隐性错误被内化。
- 评估多 Agent 决策质量时需区分公开立场与私有信念，因为公开支持率可能严重低估真实影响——本实验中三对抗者场景下私有假答案率 51.6% vs 公开支持率仅 19.7%。